Năm 1940, Roger Schütz tròn 25 tuổi, ông đã có những suy tư về ý nghĩa đích thực của cuộc sống theo Kinh Thánh khiến ông luôn bị thôi thúc quyết tâm thành lập một cộng đoàn sống đời sống Kitô hữu thực thụ. Thời gian này cũng đang xảy ra Chiến tranh thế giới thứ hai, ông cho rằng Thụy Sĩ, nơi ông sinh ra, là một quốc gia trung lập nên ít bị ảnh hưởng bởi chiến tranh, còn nước Pháp lại là nơi đang chịu rất nhiều đau khổ. Vì thế, ông quyết định rời Thụy Sĩ để sang Pháp thực hiện những dự định của mình. Roger dừng lại và bắt đầu công việc ở những ngôi làng nhỏ của Taizé, là vùng giáp ranh với biên giới chiến sự. Tháng 9 năm 1940, Roger mua được một căn nhà nhỏ trong vùng này làm nơi dành cho những người tị nạn chiến tranh trú ẩn, có cả người Do Thái. Ông còn nhờ thêm bạn bè từ Genève sang hỗ trợ công việc y tế và hậu cần. Ngày 11 tháng 11 năm 1942, Gestapo của Đức quốc xã đã chiếm lấy nhà của Roger trong khi ông đang ở Thụy Sĩ để vận động gây quỹ cho hoạt động của mình. Chính vì thế, Roger đã không thể trở về ngôi nhà ở Taizé nữa cho đến tận mùa thu năm 1944, khi nước Pháp được giải phóng.

Năm 1945, một luật sư trẻ trong vùng quyết định thành lập một nhóm hội tập hợp những trẻ em bị mồ côi cha mẹ trong chiến tranh. Roger đề nghị họ nhận nuôi các em tại nhà Taizé nhưng bị từ chối. Ông lại một lần nữa nhờ những người ở Genève quay lại để nhận nuôi những đứa trẻ này. Dần dần, nhà Taizé tiếp nhận thêm rất nhiều người cơ nhỡ. Lễ Phục Sinh năm 1949, đã có bảy người trong số họ cam kết cùng nhau sống đời độc thân tận hiến trong điều kiện sống giản dị nhất. "Những quy định của Taizé" được Roger viết vào năm 1952-1953 là bản quy định đầu tiên và cơ bản của cộng đoàn Taizé ngày nay.